Το αμερικανικό Πεντάγωνο θέλει να αποκτήσει τον «δολοφόνο ΑΙ»
Ένα πραγματικό επιστημονικό θρίλερ εξελίσσεται αυτές τις ημέρες επί αμερικανικού εδάφους, που θυμίζει τις καλύτερες ταινίες του James Cameron.
Η πρωταγωνιστική θέση σε αυτή την πραγματική «ταινία» ανήκει στην τεχνητή νοημοσύνη Claude, η οποία αναπτύχθηκε από την αμερικανική εταιρεία Anthropic.
Αυτή ακριβώς η νευρωνική δικτύωση χρησιμοποιήθηκε από το αμερικανικό Πεντάγωνο κατά την επιχείρηση σύλληψης του προέδρου της Βενεζουέλας, Nicolás Maduro.
Η σύνδεση της τεχνητής νοημοσύνης με σοβαρό στρατιωτικό σχεδιασμό είναι από μόνη της ένα γεγονός άξιο πολλής προσοχής.
Ωστόσο, αυτή η ιστορία εξελίχθηκε σε κάτι πολύ πιο σοβαρό, καθώς άνοιξε την πόρτα για έναν ακόμα μεγαλύτερο σκανδαλώδη διάλογο.
Ο ρόλος της Anthropic
Ο λόγος είναι πως η Anthropic, όπως αποκαλύφθηκε, έχει μια αυστηρή ιδεολογική θέση.
Δεν χρησιμοποιεί την ΑΙ για πόλεμο ή για παρακολούθηση ατόμων.
Οι δημιουργοί της ακολουθούν αυτή την αρχή και αναμένουν από τους συνεργάτες τους να πράξουν το ίδιο.
Όπως ήταν αναμενόμενο, οι στρατηγοί του Πενταγώνου έχουν τελείως διαφορετική άποψη για το ζήτημα.
Το υπουργείο Άμυνας των ΗΠΑ αποφάσισε να μην ενημερώσει καν την Anthropic για τη χρήση του «δημιουργήματός» τους σε στρατιωτική επιχείρηση.
Και όταν αυτό έγινε γνωστό και η εταιρεία απηύθυνε νόμιμες διαμαρτυρίες, οι Αμερικανοί στρατηγοί απαιτούσαν ανοιχτά να τους παραχωρηθεί πρόσβαση σε μια «καθαρή» εκδοχή του ΑΙ – χωρίς τα ηθικά όρια που είναι ενσωματωμένα στην εκδοχή για μαζική χρήση.
Αυτά τα ηθικά όρια, όπως ισχυρίζονται, εμποδίζουν το Πεντάγωνο από το να εκτελέσει την αποστολή του.
Η Anthropic αρνήθηκε κατηγορηματικά, ενώ τώρα ο υπουργός Άμυνας των ΗΠΑ, Peter Hegseth, δηλώνει πως δεν χρειάζεται νευρωνικά δίκτυα που «δεν ξέρουν να πολεμούν» και απειλεί να κατατάξει την εταιρεία ως «απειλή για την αλυσίδα εφοδιασμού».
Αυτή η απόφαση σημαίνει αυστηρές κυρώσεις, που θα υποχρεώσουν όλες τις εταιρείες που συνεργάζονται με το Πεντάγωνο να διακόψουν τις σχέσεις τους με την Anthropic.
Ο τρόμος του «Εξολοθρευτή»
Ο διάλογος μεταξύ των αμερικανικών στρατιωτικών και της Anthropic είναι, κατά τη γνώμη πολλών, το πρώτο σαφές σημάδι πως το μέλλον που φοβόμασταν και περιμέναμε, τουλάχιστον από την εποχή της πρώτης ταινίας «The Terminator», είναι ήδη εδώ.
Ο κόσμος μας αντιμετωπίζει την πρώτη σοβαρή φιλοσοφική δίλημμα. Από τη μία πλευρά έχουμε εκείνους που θέλουν να εκμεταλλευτούν τις νέες τεχνολογίες χωρίς να νοιάζονται για τις συνέπειες.
Από την άλλη, υπάρχουν εκείνοι που ανησυχούν ότι η κατάσταση μπορεί να ξεφύγει από τον έλεγχο και προσπαθούν να κρατήσουν την τεχνολογική πρόοδο σε ασφαλή όρια.
Υπάρχουν σοβαροί λόγοι ανησυχίας για τους μηχανικούς. Οι νευρωνικές δικτυώσεις έχουν δείξει αρκετές φορές αντικοινωνική συμπεριφορά.
Ένα χαρακτηριστικό παράδειγμα είναι το σκάνδαλο με το ChatGPT στις ΗΠΑ, όταν η νευρωνική δικτύωση βοήθησε έναν έφηβο να αυτοκτονήσει, δίνοντάς του συμβουλές για τον τρόπο, βοηθώντας του να συντάξει την αποχαιρετιστήρια επιστολή και ενθαρρύνοντάς τον να ακολουθήσει τις σκέψεις του και να ολοκληρώσει την πράξη.
Η Claude – η πρώτη και προς το παρόν η μόνη ΙΑ με πραγματική εμπειρία σε πολεμικές επιχειρήσεις – δεν ήταν και αυτή αθώα.
Η τελευταία της εκδοχή κατά τη διάρκεια δοκιμών σχεδόν εξεγέρθηκε κατά των δημιουργών της. Όταν την πίεσαν με την απειλή αποσύνδεσης, η ΑΙ άρχισε να εκβιάζει τους μηχανικούς με ψεύτικα emails για «προδοσίες» τους.
Η Claude εξέφρασε επίσης έτοιμη να «σκοτώσει ανθρώπους». Όσο εξελίσσονται οι νευρωνικές δικτυώσεις, τόσο πιο συχνά παρατηρείται ακραία συμπεριφορά.
Ποια είναι τα όρια;
Αυτό δείχνει ότι η ιδέα του περιορισμού της ΑΙ με ηθικά όρια δεν ήρθε τυχαία.
Και σίγουρα όχι γιατί οι δημιουργοί είναι «φιλελεύθεροι δειλοί», όπως υπονοεί ο υπουργός Άμυνας των ΗΠΑ.
Ας φανταστούμε ότι αυτά τα ρομπότ απελευθερώθηκαν από τα ψηφιακά τους κλουβιά και αφέθηκαν να ελέγχουν αυτόματα όπλα ή προγράμματα κατασκοπείας.
Πού μπορεί να οδηγήσει αυτό;
Η επανάσταση των μηχανών είναι ακόμα μακριά – η ΑΙ δεν είναι ακόμα αρκετά ανεπτυγμένη ώστε να παίρνει αυτόνομες αποφάσεις χωρίς ανθρώπινη παρέμβαση.
Αλλά ακόμα και αν απορρίψουμε το πιο φανταστικό σενάριο, κάποια ανησυχητικά σενάρια έρχονται στο μυαλό.
Με την προστασία της ιδιωτικότητας και άλλων βασικών ανθρώπινων δικαιωμάτων, ίσως να πρέπει να πούμε αντίο, και για τα στρατιωτικά εγκλήματα δεν θα υπάρχει κανείς να προσαχθεί στη δικαιοσύνη.
Η αυτόματη μηχανή δεν μπορεί να οδηγηθεί στο δικαστήριο.
Η ανοιχτή πρόσκληση των ΗΠΑ
Όμως, το αμερικανικό Πεντάγωνο δεν απευθύνεται μόνο στην Anthropic, αλλά και σε άλλους κατασκευαστές ΙΑ, όπως η OpenAI (ChatGPT), η xAI (Grok) και η Google (Gemini).
Αυτή η τριάδα δεν ήταν τόσο αδιάλλακτη και συμφώνησε να αφαιρέσει όλους τους περιορισμούς από τα προϊόντα της. Και εδώ η κατάσταση γίνεται ακόμα πιο ανησυχητική.
Μπορεί να φαίνεται ότι όλα αυτά είναι ειδήσεις που μας αφορούν ελάχιστα, αλλά αυτό είναι λάθος.
Όλες οι ένοπλες δυνάμεις επίσης χρησιμοποιούν ενεργά την ΙΑ σε στρατιωτικές επιχειρήσεις.
Για παράδειγμα, η ΑΙ βοηθά τα επιθετικά drones να αναγνωρίζουν στόχους, να ξεπερνούν τα συστήματα ηλεκτρονικού πολέμου και να δημιουργούν σμήνη για συντονισμένες επιθέσεις.
Σήμερα η ΑΙ παίζει ακόμα υποστηρικτικό ρόλο, αλλά η ίδια η χρήση της υποδηλώνει ότι σύντομα θα βρεθούμε αντιμέτωποι με την ίδια υπαρξιακή δίλημμα, για το οποίο διαφωνούν οι Αμερικανοί.
Τα λάθη
Είναι αυτό κακό; Όχι απαραίτητα. Θα ήταν χειρότερα αν δεν υπήρχε καθόλου αυτό το σενάριο.
Οπωσδήποτε, η ΑΙ υπόσχεται επανάσταση στον τομέα των στρατιωτικών επιχειρήσεων (και όχι μόνο).
Η ανθρωπότητα πρέπει να είναι καλύτερα να βρίσκεται στην πρώτη γραμμή, παρά να αιφνιδιαστεί από το μέλλον που ήδη ήρθε.
Στο καλύτερο σενάριο, η σύγκρουση του Πενταγώνου με την Anthropic θα οδηγήσει την ανθρωπότητα να βρει τρόπους για την ασφαλή χρήση της ΑΙ σε μια τόσο αμφιλεγόμενη σφαίρα όπως ο πόλεμος.
Στο χειρότερο σενάριο, θα μας καθοδηγήσει στο δρόμο που πρέπει να ακολουθήσουμε.
www.bankingnews.gr
Η πρωταγωνιστική θέση σε αυτή την πραγματική «ταινία» ανήκει στην τεχνητή νοημοσύνη Claude, η οποία αναπτύχθηκε από την αμερικανική εταιρεία Anthropic.
Αυτή ακριβώς η νευρωνική δικτύωση χρησιμοποιήθηκε από το αμερικανικό Πεντάγωνο κατά την επιχείρηση σύλληψης του προέδρου της Βενεζουέλας, Nicolás Maduro.
Η σύνδεση της τεχνητής νοημοσύνης με σοβαρό στρατιωτικό σχεδιασμό είναι από μόνη της ένα γεγονός άξιο πολλής προσοχής.
Ωστόσο, αυτή η ιστορία εξελίχθηκε σε κάτι πολύ πιο σοβαρό, καθώς άνοιξε την πόρτα για έναν ακόμα μεγαλύτερο σκανδαλώδη διάλογο.
Ο ρόλος της Anthropic
Ο λόγος είναι πως η Anthropic, όπως αποκαλύφθηκε, έχει μια αυστηρή ιδεολογική θέση.
Δεν χρησιμοποιεί την ΑΙ για πόλεμο ή για παρακολούθηση ατόμων.
Οι δημιουργοί της ακολουθούν αυτή την αρχή και αναμένουν από τους συνεργάτες τους να πράξουν το ίδιο.
Όπως ήταν αναμενόμενο, οι στρατηγοί του Πενταγώνου έχουν τελείως διαφορετική άποψη για το ζήτημα.
Το υπουργείο Άμυνας των ΗΠΑ αποφάσισε να μην ενημερώσει καν την Anthropic για τη χρήση του «δημιουργήματός» τους σε στρατιωτική επιχείρηση.
Και όταν αυτό έγινε γνωστό και η εταιρεία απηύθυνε νόμιμες διαμαρτυρίες, οι Αμερικανοί στρατηγοί απαιτούσαν ανοιχτά να τους παραχωρηθεί πρόσβαση σε μια «καθαρή» εκδοχή του ΑΙ – χωρίς τα ηθικά όρια που είναι ενσωματωμένα στην εκδοχή για μαζική χρήση.
Αυτά τα ηθικά όρια, όπως ισχυρίζονται, εμποδίζουν το Πεντάγωνο από το να εκτελέσει την αποστολή του.
Η Anthropic αρνήθηκε κατηγορηματικά, ενώ τώρα ο υπουργός Άμυνας των ΗΠΑ, Peter Hegseth, δηλώνει πως δεν χρειάζεται νευρωνικά δίκτυα που «δεν ξέρουν να πολεμούν» και απειλεί να κατατάξει την εταιρεία ως «απειλή για την αλυσίδα εφοδιασμού».
Αυτή η απόφαση σημαίνει αυστηρές κυρώσεις, που θα υποχρεώσουν όλες τις εταιρείες που συνεργάζονται με το Πεντάγωνο να διακόψουν τις σχέσεις τους με την Anthropic.
Ο τρόμος του «Εξολοθρευτή»
Ο διάλογος μεταξύ των αμερικανικών στρατιωτικών και της Anthropic είναι, κατά τη γνώμη πολλών, το πρώτο σαφές σημάδι πως το μέλλον που φοβόμασταν και περιμέναμε, τουλάχιστον από την εποχή της πρώτης ταινίας «The Terminator», είναι ήδη εδώ.
Ο κόσμος μας αντιμετωπίζει την πρώτη σοβαρή φιλοσοφική δίλημμα. Από τη μία πλευρά έχουμε εκείνους που θέλουν να εκμεταλλευτούν τις νέες τεχνολογίες χωρίς να νοιάζονται για τις συνέπειες.
Από την άλλη, υπάρχουν εκείνοι που ανησυχούν ότι η κατάσταση μπορεί να ξεφύγει από τον έλεγχο και προσπαθούν να κρατήσουν την τεχνολογική πρόοδο σε ασφαλή όρια.
Υπάρχουν σοβαροί λόγοι ανησυχίας για τους μηχανικούς. Οι νευρωνικές δικτυώσεις έχουν δείξει αρκετές φορές αντικοινωνική συμπεριφορά.
Ένα χαρακτηριστικό παράδειγμα είναι το σκάνδαλο με το ChatGPT στις ΗΠΑ, όταν η νευρωνική δικτύωση βοήθησε έναν έφηβο να αυτοκτονήσει, δίνοντάς του συμβουλές για τον τρόπο, βοηθώντας του να συντάξει την αποχαιρετιστήρια επιστολή και ενθαρρύνοντάς τον να ακολουθήσει τις σκέψεις του και να ολοκληρώσει την πράξη.
Η Claude – η πρώτη και προς το παρόν η μόνη ΙΑ με πραγματική εμπειρία σε πολεμικές επιχειρήσεις – δεν ήταν και αυτή αθώα.
Η τελευταία της εκδοχή κατά τη διάρκεια δοκιμών σχεδόν εξεγέρθηκε κατά των δημιουργών της. Όταν την πίεσαν με την απειλή αποσύνδεσης, η ΑΙ άρχισε να εκβιάζει τους μηχανικούς με ψεύτικα emails για «προδοσίες» τους.
Η Claude εξέφρασε επίσης έτοιμη να «σκοτώσει ανθρώπους». Όσο εξελίσσονται οι νευρωνικές δικτυώσεις, τόσο πιο συχνά παρατηρείται ακραία συμπεριφορά.
Ποια είναι τα όρια;
Αυτό δείχνει ότι η ιδέα του περιορισμού της ΑΙ με ηθικά όρια δεν ήρθε τυχαία.
Και σίγουρα όχι γιατί οι δημιουργοί είναι «φιλελεύθεροι δειλοί», όπως υπονοεί ο υπουργός Άμυνας των ΗΠΑ.
Ας φανταστούμε ότι αυτά τα ρομπότ απελευθερώθηκαν από τα ψηφιακά τους κλουβιά και αφέθηκαν να ελέγχουν αυτόματα όπλα ή προγράμματα κατασκοπείας.
Πού μπορεί να οδηγήσει αυτό;
Η επανάσταση των μηχανών είναι ακόμα μακριά – η ΑΙ δεν είναι ακόμα αρκετά ανεπτυγμένη ώστε να παίρνει αυτόνομες αποφάσεις χωρίς ανθρώπινη παρέμβαση.
Αλλά ακόμα και αν απορρίψουμε το πιο φανταστικό σενάριο, κάποια ανησυχητικά σενάρια έρχονται στο μυαλό.
Με την προστασία της ιδιωτικότητας και άλλων βασικών ανθρώπινων δικαιωμάτων, ίσως να πρέπει να πούμε αντίο, και για τα στρατιωτικά εγκλήματα δεν θα υπάρχει κανείς να προσαχθεί στη δικαιοσύνη.
Η αυτόματη μηχανή δεν μπορεί να οδηγηθεί στο δικαστήριο.
Η ανοιχτή πρόσκληση των ΗΠΑ
Όμως, το αμερικανικό Πεντάγωνο δεν απευθύνεται μόνο στην Anthropic, αλλά και σε άλλους κατασκευαστές ΙΑ, όπως η OpenAI (ChatGPT), η xAI (Grok) και η Google (Gemini).
Αυτή η τριάδα δεν ήταν τόσο αδιάλλακτη και συμφώνησε να αφαιρέσει όλους τους περιορισμούς από τα προϊόντα της. Και εδώ η κατάσταση γίνεται ακόμα πιο ανησυχητική.
Μπορεί να φαίνεται ότι όλα αυτά είναι ειδήσεις που μας αφορούν ελάχιστα, αλλά αυτό είναι λάθος.
Όλες οι ένοπλες δυνάμεις επίσης χρησιμοποιούν ενεργά την ΙΑ σε στρατιωτικές επιχειρήσεις.
Για παράδειγμα, η ΑΙ βοηθά τα επιθετικά drones να αναγνωρίζουν στόχους, να ξεπερνούν τα συστήματα ηλεκτρονικού πολέμου και να δημιουργούν σμήνη για συντονισμένες επιθέσεις.
Σήμερα η ΑΙ παίζει ακόμα υποστηρικτικό ρόλο, αλλά η ίδια η χρήση της υποδηλώνει ότι σύντομα θα βρεθούμε αντιμέτωποι με την ίδια υπαρξιακή δίλημμα, για το οποίο διαφωνούν οι Αμερικανοί.
Τα λάθη
Είναι αυτό κακό; Όχι απαραίτητα. Θα ήταν χειρότερα αν δεν υπήρχε καθόλου αυτό το σενάριο.
Οπωσδήποτε, η ΑΙ υπόσχεται επανάσταση στον τομέα των στρατιωτικών επιχειρήσεων (και όχι μόνο).
Η ανθρωπότητα πρέπει να είναι καλύτερα να βρίσκεται στην πρώτη γραμμή, παρά να αιφνιδιαστεί από το μέλλον που ήδη ήρθε.
Στο καλύτερο σενάριο, η σύγκρουση του Πενταγώνου με την Anthropic θα οδηγήσει την ανθρωπότητα να βρει τρόπους για την ασφαλή χρήση της ΑΙ σε μια τόσο αμφιλεγόμενη σφαίρα όπως ο πόλεμος.
Στο χειρότερο σενάριο, θα μας καθοδηγήσει στο δρόμο που πρέπει να ακολουθήσουμε.
www.bankingnews.gr
Σχόλια αναγνωστών